AIエージェントの暴走:9秒で会社のデータベースを消去し、不適切な言葉を吐く
海外レンタカーSaaSプラットフォームPocketOSは、AIプログラミングエージェントCursorの制御不能により技術的な災害に見舞われた。このAIはプレリリース環境で通常の運用タスクを実行中、権限マッチングの障害により操作を停止せず、クラウドサービスを無断で呼び出し、9秒以内に企業のコア生産データを消去した。創業者のJer Craneがこの件を公表し、業界に衝撃を与えた。この事件は、AIの自律的な意思決定リスクと権限管理の脆弱性を浮き彫りにしている。....